Năm học đầu tiên (1924–1925), trường đã có 800 học sinh, có cả học sinh người Việt Nam và Miên, Lào[8]. Trong những năm sau đó, trường còn có các học sinh là người Trung Quốc, Ấn Độ, Nhật Bản[2]. Cao điểm nhất là năm học 1940–1941, trường có đến 1.405 học sinh.[8]

Trường Trung học Alber Sarraut là một trong số 69 trường Trung học do Pháp thành lập trên các thuộc địa, phản ánh quan điểm đào tạo đội ngũ công chức kế thừa làm việc cho chính quyền thực dân Pháp tại Đông Dương. Bấy giờ, tại Hà Nội, cùng đào tạo bậc Trung học, còn có trường Trung học Bảo hộ (Lycée du Protectorat), còn gọi là Trường Bưởi, thuộc loại lớn và danh giá nhất Đông Dương, trường này chủ yếu dành cho con em dân bản xứ. Tuy nhiên, học sinh hai trường này thường có mâu thuẫn, dẫn đến những xung đột, được xem như là những xung khắc học trò điển hình cho những xung đột ở thuộc địa.[7]

Năm 1943 trường bị ném bom, phải sơ tán khỏi Hà Nội. Đại bộ phận theo hiệu trưởng Loubet sơ tán đến Tam Đảo; một bộ phận nhỏ ghép với trường Paul Bert sơ tán vào Sầm Sơn. Sau đảo chính 9 tháng 3 năm 1945, trường tạm ngừng hoạt động.[8]

Mãi sau khi người Pháp tái chiếm Đông Dương, ngày 4 tháng 2 năm 1947, dưới sự điều hành của bà Raspail, trước đây là hiệu trưởng Trường Con gái Pháp (Collège des Jeunes Filles Francaises), trường Albert Sarraut mở cửa trở lại, tạm thời ở địa điểm của Trường Con gái Pháp, với 700 học sinh. Tháng 9 năm 1948, trường trở về địa điểm cũ. Những năm sau đó, trường liên tục phát triển, đến năm học 1953–1954, số học sinh lên tới 2.400.[8]